ANÁLISIS EXPLORATORIO DE LOS DATOS (EDA)#
Descripción de población y muestra#
Para el desarrollo del presente proyecto, se eligió un conjunto de datos que contiene imágenes de espectrogramas previamente procesados, disponibles en el sitio web Kaggle. Los audios utilizados para generar los espectrogramas, fueron obtenidos del sitio web Xeno-Canto, en el cual se encuentran registros de sonidos de toda clase de fauna alrededor del mundo. Los audios con los cantos de las aves fueron convertidos en espectrogramas utilizando una transformada de Fourier de tamaño 2048 y luego se les aplicó una transformación logarítmica.
Los espectrogramas consisten en una representación visual que muestra cómo se distribuyen las frecuencias en una señal de sonido. Esta representación gráfica puede revelar detalles específicos, como frecuencias elevadas o cambios en la amplitud, que podrían no ser perceptibles incluso si se encuentran dentro del rango auditivo humano.
La muestra inicial de datos para este proyecto son espectrogramas de 152 especies de aves de la población total de especies de aves presentes alrededor del mundo, con audios tomados en distintas fechas y por diferentes autores.
Durante la realización del análisis exploratorio, y por limitaciones para aplicar técnicas de balanceo de datos, se seleccionan como muestra las 6 especies con mayor cantidad de datos.
Diccionario de variables#
Los datos utilizados en el proyecto son imágenes de espectrogramas de 152 especies de aves presentes alrededor del mundo. Como se verá más adelante, la cantidad de espectrogramas para cada especie no es igual, por lo que estamos ante un conjunto de datos desbalanceado.
Variable dependiente: Etiquetas con la abreviatura del nombre común de las aves.
Variables explicativas: Vector de características extraídas de imágenes de espectrogramas del espectro de frecuencias de la emisión sonora del canto de las aves.
Los espectrogramas, se utilizaron para extraer patrones visuales y características importantes presentes en las imágenes, que permitan identificar las especies de aves. Estas características son extraídas al momento de implementar los modelos, y no se tienen de antemano.
Algunas de las características extraídas de los espectrogramas por los modelos son:
Estadísticas de color: Los estadísticos de distribución de color son comunes en la recuperación de imágenes, ya que describen la variación de la intensidad del color en una imagen. En el caso de los espectrogramas de sonido, estos estadísticos se aplican a cada imagen monocroma, permitiendo describir cómo varía la intensidad del sonido en regiones definidas en términos de tiempo y frecuencia.
Direccionalidad: La direccionalidad de la imagen es una característica importante para describir la textura de una imagen. Describe la dirección en la que se concentra o dispersa la textura de la imagen.
Se tiene tambien metada sobre los audio de las aves, entre la cual se puede encontrar los siguientes datos:
primary_label: representa el código de la especie de ave. Será la etiqueta que se utilice para identificar la especie.
secondary_labels: especies de fondo anotadas por el autor de la grabación. Una lista vacía no significa que no haya aves de fondo audibles, solo que no fueron identificadas.
author: el usuario de eBird que provee la grabación.
rating: Valor flotante entre 0,0 y 5,0 como indicador de la calificación de calidad en Xeno-canto y el número de especies de fondo, donde 5,0 es el más alto y 1,0 el más bajo. 0,0 significa que esta grabación aún no tiene calificación de usuario.
type: Detalles sobre el audio y la especie grabada. Puede tener información sobre el tipo de sonido emitido por la ave, canto o llamado, también información sexo del ave, o si es un adulto o juvenil, entre otro tipo de información.
latitude y longitude: coordenadas geográficas del lugar donde fue grabado el audio.
scentific_name: nombre científico de la ave.
common_name: nombre común del ave en ingles.
time: hora del día en la que fue tomada la grabación.-
Analisis Exploratorio (EDA)#
Para la exploración de los datos, se utilizaron los audios originales con los cuales se generaron los espectogramas, ya que estos nos podrian ayudar a entender las diferencias entre los cantos de las aves, y como esto puede ayudar a identificarlas.
import os
import pandas as pd
import torch
import torchaudio
import numpy as np
import seaborn as sns
import matplotlib.pyplot as plt
%matplotlib inline
import plotly.express as px
import librosa
import librosa.display
import IPython.display as ipd
import sklearn
import warnings
import seaborn as sns
warnings.filterwarnings('ignore')
#Metadata de los audios
train_csv=pd.read_csv(r'C:\Users\ANGIE VANESA\Documents\2023-2\2023-2 MAESTRIA\MACHINE LEARNING\BIRD_DATA\train_metadata.csv')
train_csv.head()
| primary_label | secondary_labels | type | latitude | longitude | scientific_name | common_name | author | license | rating | time | url | filename | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | afrsil1 | [] | ['call', 'flight call'] | 12.3910 | -1.4930 | Euodice cantans | African Silverbill | Bram Piot | Creative Commons Attribution-NonCommercial-Sha... | 2.5 | 08:00 | https://www.xeno-canto.org/125458 | afrsil1/XC125458.ogg |
| 1 | afrsil1 | ['houspa', 'redava', 'zebdov'] | ['call'] | 19.8801 | -155.7254 | Euodice cantans | African Silverbill | Dan Lane | Creative Commons Attribution-NonCommercial-Sha... | 3.5 | 08:30 | https://www.xeno-canto.org/175522 | afrsil1/XC175522.ogg |
| 2 | afrsil1 | [] | ['call', 'song'] | 16.2901 | -16.0321 | Euodice cantans | African Silverbill | Bram Piot | Creative Commons Attribution-NonCommercial-Sha... | 4.0 | 11:30 | https://www.xeno-canto.org/177993 | afrsil1/XC177993.ogg |
| 3 | afrsil1 | [] | ['alarm call', 'call'] | 17.0922 | 54.2958 | Euodice cantans | African Silverbill | Oscar Campbell | Creative Commons Attribution-NonCommercial-Sha... | 4.0 | 11:00 | https://www.xeno-canto.org/205893 | afrsil1/XC205893.ogg |
| 4 | afrsil1 | [] | ['flight call'] | 21.4581 | -157.7252 | Euodice cantans | African Silverbill | Ross Gallardy | Creative Commons Attribution-NonCommercial-Sha... | 3.0 | 16:30 | https://www.xeno-canto.org/207431 | afrsil1/XC207431.ogg |
La metadata contiene 14 columnas de información y 14852 registros
train_csv.shape
(14852, 13)
train_csv.columns
Index(['primary_label', 'secondary_labels', 'type', 'latitude', 'longitude',
'scientific_name', 'common_name', 'author', 'license', 'rating', 'time',
'url', 'filename'],
dtype='object')
Verificación de datos faltantes:
missing_data=train_csv.isnull().sum()
missing_data
primary_label 0
secondary_labels 0
type 0
latitude 0
longitude 0
scientific_name 0
common_name 0
author 0
license 0
rating 0
time 0
url 0
filename 0
dtype: int64
La información de la metadata del conjunto de datos, tiene información sobre el tipo de canto de la especie (llamado, canción, alerta), las coordenadas en las cuales se realizó la grabación del audio, quien fue el autor de la grabación, la duración de la grabación, entre otros datos.
train_csv.describe().T
| count | mean | std | min | 25% | 50% | 75% | max | |
|---|---|---|---|---|---|---|---|---|
| latitude | 14852.0 | 35.778958 | 22.288169 | -71.8834 | 28.2592 | 40.8708 | 51.12195 | 78.9783 |
| longitude | 14852.0 | -30.217719 | 73.679144 | -176.6322 | -96.1643 | -6.0611 | 10.89780 | 179.3607 |
| rating | 14852.0 | 3.719129 | 1.181014 | 0.0000 | 3.0000 | 4.0000 | 4.50000 | 5.0000 |
train_csv.describe(include=object).T
| count | unique | top | freq | |
|---|---|---|---|---|
| primary_label | 14852 | 152 | brnowl | 500 |
| secondary_labels | 14852 | 273 | [] | 13374 |
| type | 14852 | 1157 | ['call'] | 3910 |
| scientific_name | 14852 | 152 | Tyto alba | 500 |
| common_name | 14852 | 152 | Barn Owl | 500 |
| author | 14852 | 1356 | Paul Marvin | 947 |
| license | 14852 | 4 | Creative Commons Attribution-NonCommercial-Sha... | 12742 |
| time | 14852 | 1553 | 09:00 | 514 |
| url | 14852 | 14850 | https://www.xeno-canto.org/501149 | 2 |
| filename | 14852 | 14852 | afrsil1/XC125458.ogg | 1 |
Las especies seleccionadas para la clasificación son:
birds= ['brnowl', 'comsan', 'houspa', 'mallar3', 'norcar','skylar']
birds
['brnowl', 'comsan', 'houspa', 'mallar3', 'norcar', 'skylar']
Especies#
Descripción:#
Tyto alba#
Búho pálido, blanco abajo y anaranjado con manchas grises arriba. Disco facial en forma de corazón blanco. Caza principalmente roedores en áreas abiertas por la noche. Duerme en edificios viejos y cajas de nidos durante el día. Ampliamente distribuido en todos los continentes, excepto en la Antártica. Por la noche, parece muy blanco en faros. Su llamado es apropiado para Halloween: un chillido escalofriante.
Actitis hypoleucos#
Migradora parcial en la península ibérica con individuos invernantes, en paso e incluso veraneantes procedentes de las poblaciones europeas del norte y centro. Escasa población reproductora. Aparecen en una amplia variedad de hábitat acuáticos, pero selecciona para reproducirse orillas pedregosas de ríos o lagos. Generalmente individuos solitarios, pero también pueden observarse pequeños grupos. Evita bandos mixtos con otras especies. Camina con un distintivo y constante movimiento “arriba-abajo” de la cola, tipo wagtail. Tiene plumaje pardusco en el dorso, donde destaca el plumaje blanco del hombro que se ve como una pequeña franja blanca entre el ala plegada y el pecho.
Anas platyrhynchos#
El típico pato dentro de su rango, se encuentra en cualquier lugar donde hay agua, incluyendo parques de ciudades, arroyos en el jardín y diferentes humedales. Los machos tienen cabeza verde, pecho castaño y cuerpo gris. Las hembras son marrones moteadas con manchas anaranjadas y negras en el pico. Las barras blancas enfrente y atrás del parche azul del ala son más conspicuas comparadas a las de American Black Duck y el Mottled Duck.
Alauda arvensis#
Bastante común en campos abiertos, especialmente pastizales en terrenos escabrosos, páramos, tierras de cultivo, aeropuertos. Como la mayoría de los aláudidos, normalmente es poco visible en el suelo y mejor detectada por la voz. Posee un canto prolongado en vuelo, compuesto de gorjeos y trinos, a menudo tan alto que apenas se ve una mancha en el cielo, si es que está visible. Si está posada, destaca el plumaje rayado marrón, cresta tupida distintiva, y anillo ocular ancho, difuso y pálido. Más corpulenta que un bisbita pero y a diferencia de ésta no suele menear su parte trasera. En vuelo muestra lados blancos de la cola, así como un borde posterior blanco y estrecho en las alas.
Cardinalis#
El cardenal norteño es un pájaro cantor de tamaño medio con una longitud corporal de 21-23 cm. Tiene un distintivo penacho y una máscara en la cara que es negra en el macho y gris en la hembra. Presenta dimorfismo sexual en su coloración; el plumaje del macho es rojo brillante, mientras que el de la hembra es de un tono opaco que mezcla rojo y café. El cardenal norteño es predominantemente granívoro, pero también se alimenta de insectos y fruta. El macho tiene un comportamiento territorial, delimitando su territorio con su canto
Passer domesticus#
Ampliamente distribuido y abundante en ciudades, vecindarios y granjas. Evita bosques densos. Las bandadas se agrupan en densos arbustos, moviéndose y vocalizando entre ellos. Los machos tienen baberos negros elegantes, nuca rufa brillante, y alas con brillantes tonos marrones y caqui. Las partes inferiores son gris pálido. Las hembras son marrón uniforme con una cara linda y ceja más clara. Nativo de Eurasia; introducido a Norteamérica y no está estrechamente relacionado con otros gorriones de allí.
Filtramos la data para obtener los registros de las especies que nos interesan, como también aquellas columnas con información relevante:
Sub_data=train_csv.drop(columns=['secondary_labels','type', 'author', 'license','url',
'filename']).loc[train_csv['primary_label'].isin(birds)]
Sub_data.head()
| primary_label | latitude | longitude | scientific_name | common_name | rating | time | |
|---|---|---|---|---|---|---|---|
| 1663 | brnowl | 52.3009 | 6.7620 | Tyto alba | Barn Owl | 4.0 | 21:30 |
| 1664 | brnowl | -20.7900 | -42.8882 | Tyto alba | Barn Owl | 4.0 | 20:30 |
| 1665 | brnowl | 18.5206 | 73.8398 | Tyto alba | Barn Owl | 4.0 | 23:09 |
| 1666 | brnowl | -21.5500 | -47.7167 | Tyto alba | Barn Owl | 4.0 | 05:30 |
| 1667 | brnowl | 0.0640 | 32.4790 | Tyto alba | Barn Owl | 4.0 | 23:30 |
Sub_data.rename(columns={'primary_label':'etiqueta', 'latitude':'latitud',
'longitude':'longitud', 'scientific_name':'Nombre_cientifico',
'common_name':'Nombre_comun', 'time':'tiempo'}, inplace=True)
Sub_data.reset_index(drop=True, inplace=True)
Sub_data.head()
| etiqueta | latitud | longitud | Nombre_cientifico | Nombre_comun | rating | tiempo | |
|---|---|---|---|---|---|---|---|
| 0 | brnowl | 52.3009 | 6.7620 | Tyto alba | Barn Owl | 4.0 | 21:30 |
| 1 | brnowl | -20.7900 | -42.8882 | Tyto alba | Barn Owl | 4.0 | 20:30 |
| 2 | brnowl | 18.5206 | 73.8398 | Tyto alba | Barn Owl | 4.0 | 23:09 |
| 3 | brnowl | -21.5500 | -47.7167 | Tyto alba | Barn Owl | 4.0 | 05:30 |
| 4 | brnowl | 0.0640 | 32.4790 | Tyto alba | Barn Owl | 4.0 | 23:30 |
Se tienen 3000 registros en total de seis especies de aves:
Sub_data.shape
(3000, 7)
Distribución de los datos#
Vemos que las 6 especies tienen registros balanceados en la muestra:
Sub_data['etiqueta'].value_counts().plot(kind='bar', figsize=(10, 6), color='#81C784')
plt.title('Conteo de Especies')
plt.xlabel('Especies')
plt.ylabel('Frecuencia')
plt.show()
Sub_data['rating'].value_counts().plot(kind='bar', figsize=(10, 6), color='#81C784')
plt.title('Puntaje de audios')
plt.xlabel('rating')
plt.ylabel('Frecuencia')
plt.show()
Sub_data.describe().T
| count | mean | std | min | 25% | 50% | 75% | max | |
|---|---|---|---|---|---|---|---|---|
| latitud | 3000.0 | 43.067195 | 15.567769 | -46.4132 | 37.778850 | 47.49135 | 51.97985 | 78.1971 |
| longitud | 3000.0 | -10.260723 | 52.379023 | -157.7898 | -8.439775 | 1.10090 | 13.21330 | 176.3158 |
| rating | 3000.0 | 3.676000 | 1.133484 | 0.0000 | 3.000000 | 4.00000 | 4.50000 | 5.0000 |
Exploración en un gráfico de cajas para las variables latitude, longitude y rating
sns.boxplot(x='latitud', y='etiqueta', data=Sub_data, palette="Set2" );
sns.boxplot(x='longitud', y='etiqueta', data=Sub_data, palette="Set2" );
Rating: Indicador de la calificación de calidad en Xeno-canto
Podemos ver en el siguiente diagrama de cajas que las grabaciones registradas por especie tienen en general una calificación de calidad por encima de tres. Se observan algunos datos atípicos. Para la especie brnowl, el 50% de las grabaciones tienen una calificación sobre 4, mientras que las un 50% de las grabaciones para las especies comsan, houspa, mallar3 y norcar tiene calificaciones entre 3 a 4.5 aproximadamente. La especie skylar tiene un 75% de los registros de audio con calificaciones inferiores a 4, esto es importante ya que nos interesa aplicar modelos de clasificación sobre estos audios y la calidad de la grabación podría influir en la clasificación de esta especie en el modelo.
sns.boxplot(x='rating', y='etiqueta', data=Sub_data, palette="Set2" );
Muestras de audios#
base_dir = 'C:\\Users\\ANGIE VANESA\\Documents\\2023-2\\2023-2 MAESTRIA\MACHINE LEARNING\\train_audio'
train_csv['full_path'] = base_dir+ '/' + train_csv['filename']
# train_csv['full_path'] = base_dir+ '/' + train_csv['primary_label'] + '/' + train_csv['filename']
brnowl = train_csv[train_csv['primary_label'] == "brnowl"].sample(1, random_state = 33)['full_path'].values[0]
comsan = train_csv[train_csv['primary_label'] == 'comsan'].sample(1, random_state = 33)['full_path'].values[0]
houspa = train_csv[train_csv['primary_label'] == "houspa"].sample(1, random_state = 33)['full_path'].values[0]
mallar3 = train_csv[train_csv['primary_label'] == 'mallar3'].sample(1, random_state = 33)['full_path'].values[0]
norcar = train_csv[train_csv['primary_label'] == 'norcar'].sample(1, random_state = 33)['full_path'].values[0]
skylar = train_csv[train_csv['primary_label'] == 'skylar'].sample(1, random_state = 33)['full_path'].values[0]
Para entender porque los cantos de las aves pueden ayudar en la identificación de especies, se muestran a continuación algunos ejemplos de audio obtenidos desde el repositorio de Xeno-canto.
ipd.Audio(houspa)